Писатель Наталия Черных беседует с писателем Еленой Черниковой об ИИ. ПРОДОЛЖЕНИЕ. НАЧАЛО — ЗДЕСЬ.

На мой глаз, с ИИ можно взаимодействовать, но ни игнорировать, ни полностью принять его человек не может. ИИ — это нечто вроде качелей в известной песне Летова «Прыг-Скок» — сам по себе. Из материалов, доступных мне, сделала вывод, что многие авторы нейронок считают то, что они создают, личностью. Они относятся к своему творению с нежностью. Но это не личность! Но почему не личность? Это нужно разъяснять снова и снова.

ИИ в моих глазах — вид гомункулуса, а квазичеловечка делают давно и регулярно. Обычно на чёрных мессах. «Открой тайну жизни!» — взывают участники, лобызая козла. Богоборчество как требование и как желание сравняться со Всевышним в созидательной мощи — сильнейшее искушение. Некоторые без обиняков называют это сатанизмом. Пусть даже весьма рафинированным. И как человеку, мнящему себя творцом всего, преодолеть искушение? В апреле 2020 года видный научный блогер, рассуждая о юриспруденции будущего, запостил яркую и беспощадную мысль: «В конце концов останется один закон: запрещается прикидываться человеком, если ты им не являешься». Это в переводе с английского, на котором он и блогерствует. А на одном из наших телеканалов учёный с той же грустью предсказывал, что к середине XXI века останется одна профессия: учитель этики для ИИ. Оба прогноза, вы понимаете, печально-радикальны, но услышать их даже в такой форме – необходимо.

Белковыми людьми мы пока ещё являемся вполне, но трансгуманизм исходит из нашего несовершенства и обещает улучшить. В длинном списке идей трансгуманизма присутствует ИИ. Для идеологов трансгуманизма белковые существа, люди, суть материал для доработки. Обывателю сейчас рьяно внушают, что нейросети даны ему в помощь, чтобы освободить его, обывателя, натруженные руки для творчества и саморазвития. Всем работникам всех отраслей велено учиться писать промпты и взаимодействовать с нейросетями, осваивая разные языковые модели. Для дела. По службе. Ну и для_дома_для_семьи. Я тоже учусь. Пока я вижу забористую и самоуверенную туповатость ответов, мне не страшно. Но на той стороне не дремлют, и нейронки уже обучились отвечать на уровне «среднего человека». А «средний человек» не в курсе, что есть и другие уровни знания, да ему и не надо.

…Личность, говорите? А у всех людей есть личность? Покажите – что у квалифицированного потребителя пригодно для саморазвития?

Каковы признаки личности? Мораль и нравственность?

Мораль, то есть знание добра и зла (дуализм, первородный грех) сейчас играет с человечеством партию в ИИ. Привычка распущенного ума белкового человека — ратовать за всё хорошее против всего плохого. Эта привычка в метафизической схватке – не помощник. Схватка тем страшна, что разработчики уже давно заметили: человеческие черты, пристрастия и вкусы переходят на создаваемые им нейронки. Если разработчик, например, латентный расист, то через несколько эпох (это термин) самообучения ИИ принимать решение, например, кого спасти в ДТП, а кого задавить. Случай из свежих. В Гугле был такой проект для уличных такси-беспилотников. Его довольно быстро закрыли ввиду неуступчивости ИИ, выбиравшего жертву по цвету кожи. Вопрос основной: почему ИИ, созданный белковым автором, учится и решает всё по-своему, чудесно помня при этом, какие мировоззренческие подробности хранятся в душе автора? Почему ИИ как творение отражает автора? Почему быстро уходит в самомнение? На этот вопрос специалисты не только не знают ответа, а вообще предпочитают в этические сферы не входить. Ругаются. Как спросишь об этике, так нервничают и посылают подальше. Или говорят успокоительную ерунду о трёх законах робототехники Айзека Азимова (1942) или о грандиозной разнице между слабым и сильным ИИ.

У человека, влюблённого в ИИ, регулярно распухает гордыня, и сверкают глаза — он вещает. Нам, говорит он, помогут. Всё ускорится! Зачем, думаю я! Куда спешить? Опять на войну? У иных в глазах поселяется грусть и озабоченность. Я в 2024 году посетила с десяток научно-практических конференций по ИИ, послушала в залах и кулуарах, посмотрела в лица. Особенно меня интересовала тема «ИИ в медицине». Так вот: врачи, имеющие опыт, совесть и милосердие, говорят учёным, даже кричат, что даже самый крутой запас больших данных не решает проблему интерпретации данных, посему всё равно нужен живой (белковый) врач с опытом и чутьём. Скажем, следует ли конкретного больного с аневризмой оперировать и чем это кончится для вот этого больного? А свистопляски с онкологией! Сейчас врачей поощряют за раннее обнаружение, так уже были прецеденты обнаружения-на-всякий-случай – ради премии. Зато ИИ весь в шоколаде: вот же они, патологические клетки. Надо лечить! А что у каждого человека есть такие клетки, ежедневно убиваемые собственным иммунитетом, так это ладно. Не спортивно. Главное – что-нибудь обнаружить. Разумеется, я не обо всех говорю. О некоторых врачах, над которыми висит указание, а им оно удобно.

Авторы, «создававшие личность», я уверена, интересные люди. Я бы спросила у них, что такое личность. Или кто такой человек. Определения, с которым все были бы согласны, я пока не нашла. Попробуйте найти научные определения понятий, которыми все пользуются и как бы понимают: информация, например. В том же густом лесу прячутся свобода и любовь.

Что такое ИИ для вас как для преподавателя? Приходилось ли с ним сталкиваться в вашей работе? Как вы видите ИИ в ближайшем будущем в области преподавания?

Я с 2002 преподаю туман, коего, можно сказать, нет как отчуждаемого знания: творческую деятельность. Адресат моих курсов – авторствующий субъект. «Автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано», говорит нам ГК РФ, ч. 4, статья 1257. Творчество – создание нового. ИИ может из величайшего запаса человечьих выдумок сварганить весьма любопытные картинки, толковую музычку и прочее. Может, скоро научится бить себя кулаком в грудь и врать нам, что как личность творческая он ловит из космоса божественные диктанты. Уже есть попытки признать за ИИ авторство и даже разработать «Права ИИ» по аналогии с правами человека. Отвечая на ваш вопрос об ИИ в преподавании, выражу аккуратное соображение: дети, которых чему-либо научит ИИ, будут принадлежать не к той социальной страте, к которой будут принадлежать дети, обученные человеком с природной головой, полной белковых нейронных связей. Начинается ещё более глубинное расслоение на думающих самостоятельно – и вопрошающих у нейронки с помощью промптов.

Мои студенты не имеют права использовать ИИ для текстопорождения. Сравнимо с деторождением: всё равно что здоровому мужику пойти к соседу и попросить осеменить его молодую жену, пока сам законный муж креативно позавтракает.

Конечно, школы, вузы, даже детские сады найдут ИИ применение, но я буду держаться своих антикварных установок: живой мастер и наличные ученики. Я на занятиях вообще запрещаю открывать гаджеты. Но это моё личное решение.

Как взгляд писателя корректирует точку зрения преподавателя на ИИ? Нет ли противоречия между этими взглядами? Помогает ли взгляд писателя, сообщая новые интуиции, в преподавательской работе?

Никак не корректирует мою точку. Нет противоречия. Взгляд писателя и взгляд преподавателя в моём случае – одно и то же. Я не просила помогать мне, но если ИИ покажет мне, как без агрессии, жертв и разрушений устранить, например, ЕГЭ и другие охвостья Болонской системы в РФ, я скажу спасибо и возрадуюсь.

ИИ и роль женщины в современном мире — тема, которую по вдохновению в паре абзацев не охватишь. Но она очень меня занимает. И я просто рада побеседовать с писателем, замечательной женщиной. Писатель волей или неволей заглядывает за горизонт времени и отчасти, ясно или не очень, видит будущее. У женщины есть неоспоримое преимущество в интуиции и способности анализировать.

Направление на увеличение рождаемости и здоровья женщины вероятно уже включает ИИ технологии. Не станут ли от этого сами женщины искусственными? Ведь женщина очень лабильна и восприимчива.

Футурологи и даже астрологи обещают искусственную матку – видимо, некие новые материалы. О грядущем сокращении количества естественных родов на Земле пишут лет двадцать.

Проблема в мужском непонимании, откуда дети берутся. И если воспроизводство людей по-прежнему связывать с успехами в экономике, то рождаемость вообще остановится. Нелепо: сначала воспитать в людях стремление к престижному потреблению, а потом ждать высокой рождаемости. Смешнее всех выглядят экономисты-чиновники. Они на полном серьёзе считают, что запретишь аборты и дашь бабе денег — она больше детей родит. Эти учёные мужчины либо воспринимают женщину как проститутку («за ваши деньги — любой каприз»), либо действительно не знают, откуда дети берутся. Всё ещё верят в инстинкты. У людей нет инстинктов. Совсем. Женщина для них осталась зловеще непознанной. С экономистами невозможно говорить даже о демографическом взрыве 1987-1988 в СССР. Отбиваются как могут, списывая взрывную рождаемость на перестроечную антиалкогольную кампанию. Я пробовала: кричат и пытаются согнать с трибуны. Давайте напишем в правительство по секрету: массово женщины рожают в виду великой грёзы. Пусть создадут грёзу (в 1985-1986, например, был анонсирован «социализм с человеческим лицом»). Пусть создадут атмосферу восторга. ЧИТАТЬ ДАЛЬШЕ

НА ГЛАВНУЮ БЛОГА ПЕРЕМЕН>>